Openai все още има проблем с управлението

Може да е мъчно да се образова чат. Миналия месец Openai анулира актуализация на Chatgpt, защото неговата „ персона по дифолт “ беше прекомерно сикофантична. (Може би данните за образование на компанията са взети от преписи на срещите на кабинета на президента на американския президент Доналд Тръмп...)

Компанията за изкуствен интелект беше желала да направи своя чатбот по -интуитивен, само че отговорите му на запитванията на потребителите, изкривени към прекомерно подкрепяща и неуместна. „ Сикофантичните взаимоотношения могат да бъдат неуместни, смущаващи и предизвикват злополучие. Ние изпаднахме и работим по оправянето “, съобщи компанията в обява в блога.

препрограмирайки сикофантични чатботи, може да не е най -решаващата алтернатива, изправена пред Openai, само че се разчита с най -голямото предизвикателство: основаването на надеждна персона за компанията като цяло. Тази седмица Openai беше заставен да върне най-новата си планувана корпоративна актуализация, предопределена да трансформира компанията в организация с облага. Вместо това тя ще премине към корпорация за социална изгода, оставайки под контрола на съвет с нестопанска цел. 

Това няма да позволи структурното напрежение в основата на Openai. Нито ще задоволи Елон Мъск, един от съоснователите на компанията, който подхваща правосъдни дейности против Openai за отклоняване от първичната си цел. Компанията форсира ли разгръщането на продукта AI, с цел да резервира финансовите си поддръжници щастливи? Или преследва по-съзнателен теоретичен метод, с цел да остане правилен на филантропичните си планове?

Openai е учреден през 2015 година като изследователска лаборатория с нестопанска цел, отдадена на развиването на изкуствения общ разсъдък в интерес на човечеството. Но задачата на компанията - както и определението за AGI - от този момент се размиват. 

Сам Алтман, основен изпълнителен шеф на Openai, бързо разбра, че компанията се нуждае от големи количества капитал, с цел да заплати за изследователския гений и изчислителната мощ, нужни, с цел да остане на напред във времето в проучването на AI. За тази цел Openai сътвори дъщерно сдружение с облага през 2019 година Такъв беше триумфа на пробив на Chatbot Chatgpt, че вложителите са щастливи да хвърлят пари, оценявайки Openai на 260 милиарда $ по време на последното си набиране на средства. С 500mn седмични консуматори OpenAI се трансформира в „ инцидентен “ потребителски интернет колос.

Алтман, който беше уволнен и пренасочен от Съвета с нестопанска цел през 2023 година, в този момент споделя, че желае да построи „ мозък за света “, който може да изисква стотици милиарди, в случай че не трилиони, долари от спомагателни вложения. Единствената неприятности с неговата упоритост с диви очи е-тъй като софтуерният блогър Ед Зитрон се ускорява във все по-солен план-Openai към момента не е създал жизнерадостен бизнес модел. Миналата година компанията изразходва 9 милиарда $ и загуби 5 милиарда Долара. Въз основа на финансовата му оценка се основава на илюзия? Ще има напън върху Openai от вложителите бързо да комерсиализира неговата технология.

Освен това, дефиницията на AGI продължава да се измества. Традиционно тя се базира на точката, в която машините надминават хората в необятен набор от когнитивни задания. Но в неотдавнашно изявление с Бен Томпсън от стратехите, Алтман призна, че терминът е „ съвсем изцяло обезценен “. Той обаче одобри по -тясна формулировка на AGI като самостоятелен кодиращ сътрудник, който може да напише програмен продукт, както и всеки човек.

В този резултат огромните компании за ИИ наподобява считат, че са близки до AGI. Едното предаване се отразява в техните лични практики за наемане. Според данните на Zeki, най -добрите 15 американски компании за AI неистово наемаха софтуерни инженери със скорост до 3000 на месец, набирайки общо 500 000 сред 2011 и 2024 година, само че в последно време чистият им месечен % на наемане е понижен до нула, защото тези компании плануват, че сътрудниците на AI могат да извършват доста от едни и същи задания. опасности от все по -автономни модели на AI: корист от неприятни актьори; противоречие, когато AI система прави непредвидени неща; неточности, които предизвикват неволна вреда; и многоагентни опасности, когато непредвидимите взаимоотношения сред AI системите дават неприятни резултати. Това са всички провокации за прегъване на мозъка, които носят някои евентуално пагубни опасности и може да изискват някои решения за съдействие. Колкото по -мощни AI стават модели, толкоз по -предпазливи разработчици би трябвало да бъдат в внедряването им. 

Как се ръководят граничните AI компании, затова не е въпрос единствено за корпоративните препоръки и вложителите, а за всички нас. Openai към момента е притеснително дефицит в това отношение, с конфликтни импулси. Борбата с Sycophancy ще бъде най -малкото от проблемите му, когато се доближим до AGI, само че вие го определяте.